📚 MiniMind 笔记:大模型从零实现的完整路径
MiniMind 系列笔记目录——从 Tokenizer、Embedding 等基石,到 Transformer 架构、MoE、KV Cache,再到 SFT、DPO、PPO 算法的完整学习路径
·3 min read·499 字
# LLM# MiniMind# Transformer
MiniMind 系列笔记目录——从 Tokenizer、Embedding 等基石,到 Transformer 架构、MoE、KV Cache,再到 SFT、DPO、PPO 算法的完整学习路径
从 BPE、WordPiece、Unigram 的算法对比,到 GPT-2 / GPT-4 分词器的工程演进,再到 Tokenizer 对大模型能力边界的深远影响
从零建立对 AI Infra 领域的全景认知:硬件层、系统软件层、训练系统、推理系统与性能工程。
从前置基础到推理部署,系统梳理 AI Infra 的完整学习路线——每个模块含知识点、推荐资料与可量化检验标准。